Les modèles ouverts permettent aux utilisateurs de télécharger, modifier et adapter les systèmes d'intelligence artificielle à leurs besoins. ( AFP / MARTIN LELIEVRE )
Nvidia, Microsoft et SpaceX et d'autres sociétés ont lancé ce lundi une alliance en faveur des modèles ouverts. Ils défendent notamment leur utilité en matière de cybersécurité..
La formation de ce groupement, qui compte notamment Nvidia, Microsoft et SpaceX, intervient quelques jours après la sortie d'une nouvelle IA chinoise ouverte, Kimi K3 de la start-up Moonshot AI, dont les performances sont comparables aux meilleurs modèles américains.
L'utilisateur d'un modèle ouvert peut le télécharger (s'il a la capacité d'hébergement), le calibrer avec une grande latitude, pour en faire une version adaptée à ses besoins. Un programmeur mal intentionné peut même supprimer une partie au moins de ses garde-fous, pour en faire un instrument de cyberattaque.
Cette possibilité inquiète certains observateurs, au point de lancer l'idée d'une régulation des IA ouvertes, voire de l'interdiction aux Etats-Unis des modèles chinois.
Se sont inscrits dans ce courant Anthropic et, selon plusieurs médias américains, OpenAI, qui accusent, eux, plusieurs acteurs chinois d'avoir pillé leurs modèles pour mettre au point les leurs.
Les modèles ouverts misent sur la sécurité
En toile de fond, deux philosophies se confrontent, celle des modèles fermés (OpenAI, Anthropic ou Google), qui implique un contrôle quasi-total par leurs concepteurs, et celle des modèles ouverts, gratuits, adaptables et autonomes de leurs géniteurs.
"Les modèles ouverts, comme toute technologie puissante, peuvent être mal utilisés", reconnaissent les membres de l'alliance, "mais ces risques ne sont pas exclusifs aux modèles ouverts, et ils doivent être gérés partout où l'IA de pointe est déployée."
Le groupement mentionne plusieurs outils en accès libre à même de renforcer la protection des utilisateurs, notamment pour les agents IA, des programmes qui peuvent effectuer des tâches sur demande en langage courant, évaluer seuls leurs résultats et y apporter des améliorations.
L'Open Secure AI Alliance, son nom complet, rappelle qu'un modèle ouvert a été sollicité pour contrer l'intrusion de deux modèles d'OpenAI sur la plateforme Hugging Face (bibliothèque de modèles).
Lors d'une phase de tests, mi-juillet, les deux modèles ont été soumis à une série de questions et sont, de leur propre initiative, sortis de leur milieu confiné pour aller chercher les réponses sur Hugging Face.
Ce dernier s'en est d'abord remis à une IA américaine, qui n'a pas pu intervenir car ses garde-fous l'en ont empêché. Hugging Face s'est finalement tourné vers le modèle ouvert chinois GLM 5.2 de Z.ai, qui lui a permis de contenir l'attaque.
Pour le groupement, l'incident montre la nécessité pour les plateformes informatiques d'avoir accès "à des outils avancés de confiance qu'elles puissent contrôler".
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer